什麼是 NVIDIA H100 GPU?

NVIDIA H100 GPU 建立了以硬碟為基礎的可信任執行環境 (TEE)，保護並隔離在單一 H100 GPU、節點中多個 H100 GPU 或個別多執行個體 GPU 的執行個體上，執行的所有工作負載。 GPU 加速的應用程式無須修改就能在可信任執行環境中執行，且不必分割。 使用者可以結合使用在人工智慧與高效能運算的 NVIDIA 軟體強大功能，以及 NVIDIA 機密運算提供的硬體信任根安全性。 Hopper Tensor 核心 GPU 將驅動 NVIDIA Grace Hopper CPU+GPU 架構，專為 TB 級加速運算打造，並為大模型人工智慧和高效能運算提供高出 10 倍的效能。

Nvidia H100 Tensor 核心 GPU 提供什麼樣的效能?

為所有資料中心提供前所未有的效能、可擴充性和安全性。 利用 NVIDIA H100 Tensor 核心 GPU，提供所有工作負載前所未有的效能、可擴充性和安全性。 使用 NVIDIA ® NVLink ® Switch 系統，最高可連接 256 個 H100 來加速百萬兆級工作負載，此外還有專用的 Transformer Engine，可解決一兆參數語言模型。

GH100 gpu是什麼?

NVIDIA GH100 GPU 是由多個 GPU 處理叢集（GPU processing cluster，GPC）、紋理處理叢集（texture processing cluster，TPC）、串流多處理器（streaming multiprocessor，SM）、L2 快取和 HBM3 記憶體控制器組成。 8 個 GPC、72 個 TPC（每一個 GPC有 9 個 TPC）、每一個 TPC 有 2 個 SM，每一個完整 GPU 有144 個 SM 相較於以 TSMC 7nm N7 製程為基礎的上一代 GA100 GPU，採用 TSMC 4N 製程可以使 H100 提高 GPU 核心頻率、改善每瓦效能，以及納入更多的 GPC、TPC 和 SM。

什麼是「h100」?

今年四月正式亮相的 H100 擁有 800 億個電晶體，受益於強大的全新 Transformer 引擎 和 NVIDIA NVLink ® 互連技術等多項技術突破，能加速最龐大的人工智慧 (AI) 模型，像是先進的推薦系統和大型語言模型，以及推動對話式 AI 與藥物開發等領域的創新。 NVIDIA 創辦人暨執行長黃仁勳表示：「Hopper 是 AI 工廠的全新引擎，處理並精煉出海量數據，用以訓練具上兆個參數的模型，以推動語言 AI、機器人、醫療和生命科學領域的研究工作。 Hopper 的 Transformer 引擎能以指數級提升運算效能，讓企業和研究人員能夠運用大規模的 AI 及高效能運算技術。 」